Philosophie: Wo Menschen künstliche Assistenten ausnutzen

Stellen Sie sich ein automatisiertes Lieferfahrzeug vor, das eine Lieferung von Lebensmitteln zustellt, während Sie spät dran sind zu einem lang ersehnten Abendessen mit Ihren Freunden. An einer belebten Kreuzung kommen Sie beide zur gleichen Zeit an. Bremsen Sie ab, um dem selbstfahrenden Lieferwagen Platz zu machen? Oder erwarten Sie, dass er anhält und Sie vorbeifahren lässt, auch wenn er eigentlich Vorfahrt hat?

„Da die Technologie des autonomen Fahrens immer mehr zur Realität wird, werden solche alltäglichen Begegnungen in Zukunft bestimmen, wie wir die Welt mit intelligenten Maschinen teilen“, sagt Dr. Jurgis Karpus vom Lehrstuhl für Philosophy of Mind an der LMU. Die Einführung vollautomatischer Autos signalisiere einen Wandel von der bloßen Nutzung intelligenter Maschinen – wie Google Translate oder ChatGPT – hin zur aktiven Interaktion mit ihnen. Der entscheidende Unterschied: Im dichten Verkehr entsprechen unsere Interessen nicht immer denen der selbstfahrenden Autos, denen wir begegnen. Wir müssen mit ihnen interagieren, auch wenn wir sie gerade nicht selbst nutzen.

Forschende der LMU und der Waseda-Universität in Tokio haben in einer kürzlich im Fachmagazin Scientific Reports veröffentlichten Studie herausgefunden, dass Menschen viel eher dazu neigen, kooperative künstliche Intelligenzen auszunutzen als ähnlich kooperative Mitmenschen. „Wenn man einen Roboter im Verkehr schneidet, verletzt man schließlich nicht dessen Gefühle“, so Karpus, Erstautor der Studie. Dazu nutzte das Team Methoden der klassischen Verhaltensökonomie. Die japanischen und US-amerikanischen Probandinnen und Probanden hatten in verschiedenen spieltheoretischen Experimenten die Wahl: Ihren Mitspieler hintergehen oder sich kooperativ verhalten? Das Ergebnis: War das Gegenüber kein Mensch, sondern eine Maschine, tendierten die Testpersonen viel eher dazu, egoistisch zu handeln.

Wie die Ergebnisse der Studie jedoch zeigen, ist unsere Tendenz, eine auf kooperatives Verhalten trainierte Maschine auszunutzen, nicht universell: Menschen in den USA und Europa nutzen Roboter deutlich häufiger aus als Menschen in Japan. Das Forschungsteam vermutet, dass dieser Unterschied auf Schuldgefühle zurückzuführen ist: Im Westen empfinden Menschen Reue, wenn sie einen anderen Menschen hintergehen, aber nicht, wenn sie das bei einer Maschine tun. In Japan hingegen empfinden Menschen gleichermaßen Schuldgefühle – egal, ob sie eine Person oder einen wohlmeinenden Roboter schlecht behandeln.

Diese kulturellen Unterschiede könnten die Zukunft der Automatisierung beeinflussen. „Wenn Menschen in Japan Roboter mit demselben Respekt behandeln wie Menschen, könnten vollautonome Taxis in Tokio schon lange vor Berlin, London oder New York zum Einsatz kommen“, mutmaßt Jurgis Karpus.

Jurgis Karpus, Risako Shirai, Julia Tovar Verba, Rickmer Schulte, Maximilian Weigert, Bahador Bahrami, Katsumi Watanabe & Ophelia Deroy: Human cooperation with artificial agents varies across countries. Scientific Reports 2025

Auch interessant:

• Was KI wirklich kann : Wohin entwickelt sich Künstliche Intelligenz? LMU-Forschende über Einsatz und Grenzen der Technologie in Medizin, Wirtschaft und Gesellschaft
• Beratende KI-Assistenten – in die Verantwortung genommen : Auch wenn Menschen KI-basierte Assistenten als reine Werkzeuge betrachten, schreiben sie ihnen Mitverantwortung für Entscheidungen zu.
• Wie der Meta-Algorithmus Wahlwerbung beeinflusst : Eine LMU-Studie zeigt, wie Facebook und Instagram politische Werbung ausspielen. Offenbar bevorzugen die Algorithmen Inhalte bestimmter Parteien.